Rometty tốt nghiệp từ Trường Khoa học kỹ thuật và Khoa học ứng dụng Robert R. McVormick (Robert R. McCormick School of Engineering and Applied Science) tại Đại học Tây Bắc năm 1979, đậu bằng cử nhân khoa học máy tính và khoa học kỹ thuật điện với hạng danh dự cao.[3]

Sau khi tốt nghiệp năm 1979, Rometty tới làm việc cho Đại học Kettering (ở Flint, Michigan, trước kia là "General Motors Institute"); năm 1981, bà vào làm systems engineer (chuyên viên thiết kế chế tạo hệ thống) trong hãng IBM tại cơ sở của hãng ở Detroit.[4] Bà gia nhập Nhóm tư vấn của IBM năm 1991. Năm 2002, bà "tranh đấu mua hãng tư vấn kinh doanh lớn - PricewaterhouseCoopers Consulting - với giá 3,5 tỷ dollar Mỹ".[5] Rometty trở thành phó chủ tịch cấp cao và điều hành Nhóm bán hàng, tiếp thị và chiến lược năm 2009.[4] Rometty được cho là "đã dẫn đầu chiến lược phát triển của IBM bằng cách đưa công ty vào Điện toán đám mây và môn phân tích kinh doanh. Bà cũng đã lãnh đạo việc chuẩn bị Watson, trò chơi máy tính "Jeopardy !" cho sử dụng thương mại".[6]

Ngày 25.10.2011, IBM loan báo rằng bà sẽ là Tổng giám đốc điều hành sắp tới của công ty, và Sam Palmisano sẽ từ chức nhưng vẫn giữ chức chủ tịch.[4] Việc bổ nhiệm Rometty sẽ đánh dấu lần đầu tiên một phụ nữ làm Tổng giám đốc điều hành công ty IBM.[1] Về việc thăng chức của bà, Palmisano nói rằng: "Ginni được thăng chức vì bà xứng đáng với chức đó... Điều này không liên quan gì tới các chính sách xã hội tiến bộ".[5]

Rometty là ủy viên Ban quản trị trường alma mater Đại học Tây Bắc (Hoa Kỳ) cũng như ủy viên Ban Giám thị của Memorial Sloan-Kettering Cancer Center.[7] Bà cũng đã là thành viên Ban Giám đốc AIG từ năm 2006 tới năm 2009.[8]